即時快訊
「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工 葡萄牙搶攻美國資本 美資存量翻倍衝破 160 億歐元 音速小子35週年動畫短片登場 金屬索尼克反轉抉擇成亮點 PC顯卡與主機GPU差在哪?硬體整合與著色器機制成效能分水嶺
蓋茲憂AI潛藏十億人命危機 疾呼政府應介入強化監管
科技生活

·2 months ago·吳承岳
#比爾·蓋茲#人工智慧#AI安全#政府監管#科技倫理
蓋茲憂AI潛藏十億人命危機 疾呼政府應介入強化監管
商傳媒|吳承岳/台北報導
摘要

微軟共同創辦人比爾·蓋茲警告,人工智慧(AI)若遭惡意使用,恐導致「十億人死亡」的毀滅性後果,他呼籲政府應介入制定嚴格監管規範。此番言論引發 AI 業界與政治圈熱議,部分 AI 公司領導人支持放慢開發腳步,但也有人質疑這是否為競爭策略,而前 AI 研究人員則因安全疑慮紛紛辭職。

微軟共同創辦人比爾·蓋茲(Bill Gates)近日發出嚴峻警告,表示若人工智慧(AI)落入惡意分子手中,其強大力量恐導致「十億人死亡」的毀滅性後果。他強調,這並非指 AI 會自主決定滅絕人類,而是惡意分子若結合最先進的 AI 工具,其破壞力將超越以往任何武器,特別是在武器開發或生物恐怖主義等領域,AI 能被用於設計大規模殺傷性武器或生物製劑。

比爾·蓋茲在接受《全國廣播公司》(NBC)節目「Meet the Press」訪問時指出,要區分善意科學研究(例如設計新藥)與惡意生物恐怖主義工具的開發難度極高,因此必須監控複雜的 AI 模型並記錄其使用方式。他強烈支持政府介入制定安全規範,而非僅依賴企業自律,認為此舉只會為產業帶來少量額外成本,並不會顯著減緩 AI 進步的速度。

然而,AI 業界與政府對此議題意見分歧。Anthropic 執行長達里奧·阿莫代(Dario Amodei)曾呼籲 AI 公司「放慢前沿研究腳步」,獲得 OpenAI 執行長奧特曼(Sam Altman)與特斯拉創辦人馬斯克(Elon Musk)的認同。他們甚至建議由獨立評估機構,以近似員工的身分深入 AI 實驗室進行安全審查。過去兩年,包括 OpenAI、Anthropic 和 Google DeepMind 在內的多家主要 AI 公司,已有超過 12 位關鍵研究人員因擔憂安全風險及技術發展過快而辭職。

部分前 AI 研究人員,例如曾任 Anthropic 研究員的 Jacob Coxon,認為公司間對「超級智慧」的競賽是在「拿生命賭博」,並指未來一到兩年將是 AI 安全的關鍵時期。他甚至曾在社群媒體平台 X 上發文,呼籲暫停技術開發。前 Google DeepMind 研究員 Robert O’Callahan 也因擔憂 AI 進步過快對人類造成負面影響而離職,認為他的團隊旨在加速 AI 發展的目標,目前對人類而言並非好事。

美國政治人物對 AI 監管的態度也南轅北轍。現任總統唐納·川普(Donald Trump)曾駁斥 AI 造成生存風險的說法是「騙局」,並強調美國必須在 AI 領域保持領先地位。美國眾議院議長邁克·約翰遜(Mike Johnson)則表示需要制定安全規範,但也警告不要倉促立法,以免損害國家安全。前總統巴拉克·歐巴馬(Barack Obama)則據傳在私人聚會中警告,AI 技術在私人手中若發展過快,將變得危險,並敦促民主黨為 AI 的公共討論建立框架。

對於比爾·蓋茲的警告,也有不同聲音。AI 加速主義者 Guillaume Verdon 質疑 AI 是否具備大規模滅絕的能力,並要求提出更具體的數學模型證明。Pitchbook 資深研究分析師 Harrison Rolfes 則認為,AI 巨頭們強調安全風險並呼籲監管,可能是一種高明的策略,旨在透過安全措施為自己築起競爭壁壘,阻礙規模較小的競爭者發展,最終讓龍頭公司獲取豐厚利潤。

參考來源


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源